[セッションレポート] Amazon EC2 最新情報（AWS-06）#AWSSummit

こんにちは、AWS事業本部の荒平(@0Air)です。
AWS Summit Japan 2024にて、AWS-06「Amazon EC2 最新情報」のセッションに参加しましたのでレポートします。

オンデマンド配信を見よう

AWS Summit Japanの登録を行うことでオンデマンドで視聴可能です。（現地参加された方は改めての登録は不要です。）
"AWS-06"で検索してみてください。

セッション概要

本セッションでは、生成 AI の基盤として使われる AWS 独自のプロセッサを始めとした、最新のイノベーションについてご紹介いたします。
最近リリースされた Amazon EC2 を活用する方法、Amazon EC2 インスタンスをより深く理解する方法、
さらにインスタンスを使って価格、パフォーマンス、持続可能性の目標を実現する方法をご説明いたします。

セッションスピーカー： 小野 隆介 氏
所属：アマゾン ウェブ サービス ジャパン合同会社
エンタープライズ技術本部 小売・サービス ソリューション部 ソリューションアーキテクト

セッションレポート

聴講レポートです。全文書き起こしではございませんので、詳細が気になる方は是非オンデマンド配信を御覧ください！

Amazon EC2の基礎知識

• Amazon EC2の登場の話
  • 2006年8月に1時間あたり10セントで登場(m1.small)
  • 当時では強力な1.7GHzのコンピュートリソース
  • ここからイノベーションのスピードを加速
• 今では300億を超えるインスタンスを起動
  • インスタンスの種類は750種類を超えている
  • ユーザーは、広範囲かつ利用用途に応じたタイプを選択可能
    • ワークロードの特性によってインスタンスタイプを使い分けることが大切
• EC2インスタンスのネーミングポリシー
  • 例えば、M5d.xlarge
  • M: インスタンスファミリー
    • ファミリーごとにグループ化されている。Mは汎用インスタンス
  • 5: インスタンスの世代
  • d: 追加機能
    • CPUやネットワークなどの追加機能。dは3.6TBのディスクを示す
  • .xlarge: インスタンスサイズ
• Nitro System Architecture
  • AWSでは、x86, AMD, Graviton, Appleシリコンなど広範なプロセッサを選べ、他クラウドに比べても多くの種類を取り揃えている

最新情報

• Amazon EC2 M7i-Flexインスタンス
  • 前世代と比べ、19%の価格対性能の向上を行っている。コストを最適化しながら、手軽に性能アップができる

M7i-Flexインスタンスファミリーは、従来の非Flexインスタンスにない考え方が導入されており、最大性能が95%に抑制される可能性があるものの、コストパフォーマンスに非常に優れているインスタンスです。
Amazon EC2 M7i-flex インスタンスと M7i インスタンスの紹介

弊社ブログでも紹介しています。

• Amazon EC2 U7i インスタンス
  • 最大32TBのDDR5メモリを搭載
  • コンピューティング性能を130%向上し、EBS帯域幅は最大100Gbpsを提供し、再起動時間を最大2.5倍短縮

U7iインスタンスファミリーは、ハイメモリインスタンスに分類されます。
SAPなど大量のメモリを必要とするワークロードに向いています。
Amazon EC2 ハイメモリインスタンス U7i のご紹介

• AMD搭載インスタンス
  • Amazon EC2 第7世代AMDインスタンス
    • 前世代のAMDインスタンスに比べ最大50%の計算性能向上

C7a, M7a, R7aインスタンスファミリーは、4世代のAMD EPYCプロセッサを搭載したコストパフォーマンスの高いインスタンスです。個人的にも大好きです。
コンピューティングに最適化された Amazon EC2 C7a インスタンスの発表
アジアパシフィック (東京) リージョンで Amazon EC2 M7a および R7a インスタンスの提供を開始

マルチコアで動作するアプリケーションでは、AMDがやや有利に動作するようです。

• Amazon Graviton搭載インスタンス
  • 特注のArmプロセッサ
    • 画期的な価格性能を実現
    • Gravitonは100を超える種類があり、常に進化を続けている
  • Graviton4 搭載インスタンス
    • 最も強力かつ省エネルギーのプロセッサ
    • Amazon Linux, RedHat, SUSE, Ubuntuなどのサポート
    • その他、AWSツールやソフトウェア、サードパーティツールと連携が容易
      • Gravitonレディパートナーにより、Graviton上での動作をサポートしている
      • 価格帯性能比の向上の恩恵を早期に受けることができる
  • EC2以外でも、DB系や分析サービスでもGravitonの恩恵が受けられる

  • Amazon EC2 R8g インスタンス

  • 過去にAWSが出してきたインスタンスの中で最高の価格性能比を実現

Gravitonパートナーは初耳でした。各製品ごとに、Graviton上での動作が保証されているのはとても採用しやすくていいですね。

また、紹介されたR8gインスタンスファミリーは、プレビューではあるものの、過去に登場したEC2の中で最高の価格性能比を得られるようです。
AWS Graviton4 プロセッサを搭載した新しい Amazon EC2 R8g インスタンスを発表 (プレビュー)

• Macインスタンス
  • Amazon EC2 Macインスタンス
  • Nitro Systemを搭載しており、Apple シリコン(M1, M2)のモデルも登場している

Macインスタンスファミリーは、EC2上で動作するMacOSです。M2ではM1のメモリが1.5倍、GPUが1.25倍備えているため、さらなるXcodeの並列テストを実行することができます。
macOS 向けの Amazon EC2 M1 Mac インスタンスの発表
macOS 向け Amazon EC2 M2 Mac インスタンスの一般提供を発表

• HPC最適化インスタンス
  • Amazon EC2 Hpc7a
  • Amazon EC2 Hpc7g
    • 計算集約型のワークロード
  • Amazon EC2 Hpc6id
    • メモリ依存型やデータ集約型のワークロード

HPCインスタンスファミリーは、ハイパフォーマンス・コンピューティングに最適化されたもので、その名の通りHPCワークロードに適しています。
7世代では、DDR5メモリを搭載しており、メモリ帯域幅は50%広いため高いパフォーマンスが出せるように設計されています。

Amazon EC2 Hpc7a インスタンスの発表
Amazon EC2 Hpc7g インスタンスの発表

• 機械学習向けインスタンス
  • 学習・推論の2つのタイプがある
  • 3万を超えるお客様がEC2を使って機械学習・推論をしている
  • Amazon EC2 P5 instances
    • 生成AIを利用するための学習用に使うことが多い
  • Amazon EC2 Capacity Blocks for ML
    • 業界初のクラウド利用モデル
    • クラスタサイズ、利用開始日、期間を指定すれば、学習用のインスタンスを調達できる
  • AWS Trainium2
    • 前世代(AWS Trainium Trn1 / Trn1n インスタンス)に比べ4倍高速
    • 数十億から1兆パラメーターに対応
  • AWS Inferentia2
    • 比較可能なEC2インスタンスと比べ、40%の価格性能比の向上

機械学習向けインスタンスファミリーは、P5, Trn2, Inf2が紹介されました。
学習用、推論用でそれぞれ用途に応じて最適化されたインスタンスがあります。
生成系 AI と HPC 向けに最適化された Amazon EC2 P5 インスタンスの一般提供を開始
生成系 AI に最適化された Amazon EC2 Inf2 インスタンスが世界中で利用可能に

Trn2に関してはWhat's Newが見つけられなかったので、発表時の弊社ブログを紹介します。

• Nitro System
  • 複数のコンポーネントで構成されている
    • NitroCard, Security Chip, Hypervisor
  • 2014年以前では、Xen Hypervisorにより動いていた
    • 今では、ホストのオーバーヘッドを専用カード(Nitro)にオフロードしている
  • Nitroはモジュラーデザインで、全サーバーに流用されている(LEGOブロックのような形)
    • 開発速度の向上、イノベーションの発生
  • C5n Serverの写真
    • 今ではNitroは5世代目になっている
  • ネットワーク帯域/EBS帯域
    • 2020年頃から、急速に進化をしている
  • AWS Nitro SSD
    • 最大60%低いレイテンシ
    • 特筆すべきはセキュリティで、独自のアーキテクチャによりAWSの従業員であっても内部のデータにアクセスすることはできない
  • Nitroは設計上、オペレータのアクセス手段が存在しない
    • すべて認証・認可が必要になり、特別なAPIなどは用意されていない

Nitroの歴史と、進化について興味深い話でした。
また、Nitro v5の筐体写真が投影されました。配信にて是非ご覧ください！

なお、AWS Summitの会場では、Nitro Card (Nitro v3)までの展示がありました。

まとめ

• Amazon EC2には、生成AIをはじめ様々なワークロードに最適なインスタンスがある
• AWSはNitro, Gravitonをはじめとする自社開発のチップにより更なる利便性を提供できるよう開発を続けている

感想

Amazon EC2に関する、「知っているようで知らない」話を聞くことができました。
ふんわり理解していたところがありましたが、今回のセッションにより解像度が高くなり勉強になりました。

EC2に関してはNitroとGravitonがやはり革新的なイノベーションとなっており、EC2以外のサービスにもメリットを波及しているようでした。
データベース系サービスでは、Graviton採用によりほぼ影響を受けること無くコストダウンの効果があるので、積極的に採用していきたいですね。

また、最後に今回発表されたインスタンスファミリーの日本リージョン対応状況をまとめました。執筆日時点となりますのでご了承ください。

紹介されたインスタンスの対応状況

インスタンスファミリー	東京リージョン(ap-northeast-1)	大阪リージョン(ap-northeast-3)
M7i-flex	対応	非対応
U7i	非対応	非対応
C7a	対応	非対応
M7a	対応	非対応
R7a	対応	非対応
R8g	非対応	非対応
Mac1	対応	非対応
Mac2	非対応	非対応
Hpc7a	非対応	非対応
Hpc7g	対応	非対応
Hpc6id	非対応	非対応
P5	非対応	非対応
Trn2	非対応	非対応
Inf2	対応	非対応

調査方法

下記AWS CLIのコマンド結果をフィルターしました。

aws ec2 describe-instance-type-offerings --region ap-northeast-1 
aws ec2 describe-instance-type-offerings --region ap-northeast-3

東京リージョンの需要状況や、大阪リージョンをお使いのお客様のリクエストによって、今後拡大していく可能性もあるので、国内に無くてお困りの場合などは是非積極的にAWSへリクエストしましょう！

それでは、AWS事業本部 コンサルティング部の荒平(@0Air)がお送りしました！